Sen(Qian)’s Memo

https://ojs.aaai.org/index.php/AAAI/article/view/4411

会議はAAAI Conference on AI。

Covariance Shiftに対しては、Importance Weightingをサンプルに付与したうえでの、リスク最小化という手法が行われている。これは、密度比$p_{te}(\mathbf{x}) / p_{tr}(\mathbf{x})$である(本来は同時分布であるが、Covariance Shiftではこれと等しい)

この問題設定をPU Learningにも適用した。

• データは$\mathbf{x} \in \mathbb{R}^d$、Ground Truthのラベルは$y \in \{-1, +1\}$である。
• 識別器は$g : \mathbb{R}^d \to \mathbb{R}$であり、符号が予測結果で絶対値がConfidenceであった。
• 訓練目標は、$R_{te}(g) = \mathbb{E}_{p_{te}(\mathbf{x}, y)} [l(y g(\mathbf{x}))]$の最小化である。
• Samplingの手法はおそらくCase-Control。
• 存在するのはCovariance Shift。以下のようなものである。

• 与えられるデータは、$D_{tr}^P, D_{tr}^U, D_{te}^U$である。訓練データのDomainではPUが与えられ、テストデータのDomainから得られたデータはすべてUである。

PU Learningについての部分は省略。この論文ではカーネル法を使った線形識別器を使っているので、使ってるPUのリスクの式は以下のようなものである。nnPUではなく、 📄2015-ICML-[uPU] Convex Formulation for Learning from Positive and Unlabeled Data である。

Covariance Shiftに対処するために、密度比$w(\mathbf{x}) = p_{te}(\mathbf{x}) / p_{tr}(\mathbf{x})$を用いて、以下のような式の最小化を行う。

データの重みによって、出現頻度を補正する重みをつけたうえでの最小化ということになる。

単純に、密度比を乗じることが数学上正しいので、このように使う。理由としては以下のような式変形。

ここで、$w(\mathbf{x})$の推定はサンプルの周辺分布のみを使っており、ラベルの情報は不要である。

この$w(\mathbf{x})$は、📄2021-Survey-A Comprehensive Survey on Transfer Learning (Part1) Instance Weighting Strategy の2012, Sugiyamaの手法で行っている。

なお、上の式での$\mathbb{E}_X$での期待値はTrainのDomainから計算しているが、現にTest DomainのUnlabeled$D_T^U$からサンプルしたデータはあるので、それについての計算をしてもよい。

見る感じだとこっちのほうがよさそうで計算結果が安定するが、どうやら実験してみた形だとTrain Domainから密度比で変換したほうがいいらしい。

理由としては密度比は完ぺきに推定できていないのでバイアスが生じるが、同じ$w(\mathbf{x})$を乗じていれば同じようなバイアスがかかっている。$\mathbb{E}_X$をTest Domainで計算すると片方の項はバイアスがかからなくなり、それで不整合で性能が落ちるのではないか？

Covariance Shiftについては、2種類考えることができる。

• PositiveだけCovariance ShiftしてNegativeはそのまま。
• NegativeだけCovariance ShiftしてPositiveはそのまま。
  • 結論を言うと、この状況だけはうれしいこと。

具体的には以下のようになる。

この時、以下が成り立つと嬉しい。って、成り立たないからDomain Shiftがあるわけだろ！

これが成り立たないからこそ、$w(\mathbf{x})$による補正が必要で、これがなければ$\mathbb{E}_+$の項にバイアスがかかってしまう。

具体的には以下のようになる。

この時、$w(\mathbf{x})$による補正は不要である。

上式が成り立つので、$\mathbb{E}_+$の式の書き換えで以下のようにすればいい。

密度比推定しないので、こっちのほうがずっと学習としては安定する。

PU Learningでは、以下のようにUnlabeledが得られている。

これを使うと、Class PriorがShiftする場合は、以下のようにNegativeだけCovariance Shiftした時と同じ式で学習すればいい。

両者の違いは、$p(\mathbf{x}|y=-1)$はTrain, Testにおいて同じであるかどうかだけ。Class PriorがShiftする場合はこれは同じである。

識別器はカーネル法のSVMを使っている。

推定する密度比は以下のように、密度比を直接推定する。

低密度の領域では密度比が非常に大きい値か小さい値をとりうるので、それを防いで安定に計算するべくハイパラ$\alpha \in [0,1]$を導入した以下のもので推定する。

$\alpha=0$の時は普通の密度比である。

これを用いて、最小二乗法でフィッティングを行う。